Meta и характер.ai, проучени заради проклатирането на съветите за психично здраве на децата

Meta и започващ персонаж за пускане на изкуствения разсъдък. 

Службата на генералния прокурор съобщи, че открива следствието на AI студиото на Meta, както и на характера на производителя на чатботи. Може ли да подведе уязвимите консуматори, изключително децата, да имат вяра, че получават законно психологично здраве “, сподели Пакстън.

Разследването идва, защото фирмите, предлагащи AI за потребителите, от ден на ден са изправени пред надзор върху това дали вършат задоволително, с цел да защитят потребителите - и изключително малолетните - от рискове като излагане на токсични или графични наличие, евентуална адукция на чат за взаимоотношения в чат и от P Privacy. Разследването следва стартирането на следствие на Сената на Мета в петък, откакто изтече вътрешни документи сподели, че политиките на компанията разрешават на чатбота да има „ чувствени “ и „ сантиментални “ диалози с деца. 

Сенаторът Джош Хоули, ръководител на подкомитета на правосъдната власт за престъпността и битката с тероризма, написа на основния изпълнителен шеф на META Марк Зукърбърг, че следствието ще прегледа дали продуктите на генеративните артикули на компанията разрешават употреба или други незаконни вреди на децата.

„ Има ли нещо - нещо - огромното технологии няма да направи за бърз $? “ Хоули написа на X.

Meta съобщи, че политиките му не разрешават наличието, което сексуализира децата, и че изтичащите вътрешни документи, регистрирани от Ройтерс, „ са били и са неправилни и несъвместими с нашите политики и са отстранени “. 

Zuckerberg оран милиарди долари в старания за създаване на „ персонална надзора “ и трансформира META в „ водач на AI “. ; 

Zuckerberg обществено е оповестил капацитета капацитетът на Meta да работи в лечебна роля. „ За хората, които нямат човек, който е терапевт, мисля, че всички ще имат AI “, сподели той пред медийния анализатор Бен Томпсън в подкаст през май.

темперамент. Междувременно, построява AI-захранващи чатботи с разнообразни персони-и разрешава на потребителите да основават свои лични. Той има десетки ботове, генерирани от консуматори. Единият, наименуван „ психолог “, е взаимодействал с повече от 200 млн. Пъти, да вземем за пример. 

Character is also the subject of multiple lawsuits from families that allege their children have suffered real-world harms from using the platform.

The Texas attorney-general said the chatbots from Meta and Character can impersonate licensed mental health professionals, fabricate qualifications and claim to protect confidentiality, while their terms of service show that interactions were in fact logged and “exploited for targeted advertising and Алгоритмично развиване ”. 

Paxton е издал искане за гражданско следствие, което изисква фирмите да трансферират информация, с цел да дефинират дали са нарушили законите за отбрана на потребителите в Тексас. 

Meta сподели: „ Ние ясно етикетираме AIS и да помогнем на хората да схванат по -добре техните ограничавания. Включваме отвод от отговорност, че отговорите се генерират от AI - не хората. Тези ИИ не са лицензирани експерти и нашите модели са основани да насочват потребителите да търсят квалифицирани медицински или безвредни експерти, когато са подобаващи. “

героят са споделили, че имат видни несъгласни, че имат тип на потребителите, че са подобаващи, че имат действителен персонаж. 

„ Създадените от потребителя герои на нашия уебсайт са измислени, те са предопределени за развлечение и ние предприехме постоянни стъпки, с цел да изясним това “, обявиха от компанията. „ Когато потребителите основават герои с думите„ Психолог “,„ Терапевт “,„ Доктор “или други сходни термини в техните имена, ние прибавяме език, което прави ясно, че потребителите не би трябвало да разчитат на тези знаци за всевъзможен тип професионални препоръки. “